iT邦幫忙

2025 iThome 鐵人賽

DAY 22
0
AI & Data

從RAG到EmoRAG:讓AI真正聽懂你的心聲系列 第 28

[優化設計藍圖]第28天:用戶情緒感知系統:讓Agent學會讀空氣(上)

  • 分享至 

  • xImage
  •  

一、系統總體架構

整體架構融合了:

  • LangGraph + EmoRAG_Graph(LangChain Graph設計)
    → 提供多 Agent 之間的記憶一致性框架與對話邏輯圖。

  • 多模態 Dense Passage Retrieval (DPR) 檢索系統
    → 基於 BERT + DeepFace 的跨模態檢索與情緒一致性學習。

  • 多 Agent 記憶一致性與分布式任務協作
    → 具備一致性快取、分布式索引更新與語義對齊。

二、整合後的運作流程

1. 使用者輸入查詢

  • 文本或圖像查詢送入多模態管線

  • 若為對話型輸入,LangGraph 會負責代理分流與情緒標記

2. 模態編碼階段

  • DeepFace → 圖像情緒特徵 (128-D)

  • BERT → 文本語義特徵 (384-D)

  • 投影至統一空間 (256-D)

3. 特徵融合與一致性檢查

  • 自適應門控網路動態加權

  • 檢查情緒一致性(Emotion-Aware Learning)

  • 若多 Agent 記憶中已有相關上下文 → 觸發 Memory Merge

4. 分布式記憶同步

  • 透過一致性協議(如 Raft/Lamport 時序)

  • 各 Agent 更新記憶節點 (memory node)

  • 支援快取層與分片索引更新(FAISS incremental)

5. 語義檢索與回應生成

  • 檢索結果經 reranker 過濾

  • LangGraph 節點根據情緒與上下文生成回應

  • 若多模態查詢 → EmoRAG_Graph 負責對齊與加權輸出

三、技術亮點整合

技術 作用
Cross-Modal Alignment 對齊人臉與文本特徵空間
Emotion-Aware Learning 將情緒語義加入檢索訓練
Progressive FAISS Index 支援實時增量索引更新
LangGraph 記憶節點 管理多Agent對話記憶
分布式一致性協議 多Agent記憶同步

四、合併後建議的模組層級

├── Agent Layer
│   ├── Emotion Agent
│   ├── Memory Agent
│   ├── Retriever Agent (DPR)
│   └── Generator Agent (LLM)
│
├── Memory Layer
│   ├── Distributed Memory Store
│   ├── Consistency Checker
│   └── Cache/Index Manager (FAISS)
│
├── Retrieval Layer
│   ├── DeepFace Encoder
│   ├── BERT Encoder
│   └── Cross-Modal Fusion Network
│
└── Application Layer
    ├── FastAPI RESTful 接口
    ├── LangGraph Pipeline
    └── Monitoring Dashboard

五、實作與部署建議

  • 開發環境
Python >= 3.8
torch==1.12.0+cu113
tensorflow==2.10.0
transformers==4.25.0
faiss-gpu
fastapi, uvicorn
  • 部署方案

    • 使用 Docker + Uvicorn 部署 API

    • Redis / SQLite 做記憶暫存與索引快取

    • 若需橫向擴展 → 建議採用 Ray 或 LangServe


上一篇
[優化設計藍圖]第27天:程式碼變更追蹤系統:解決擅自修改不告知問題(下)
下一篇
[優化設計藍圖]第29天:用戶情緒感知系統:讓Agent學會讀空氣(下)
系列文
從RAG到EmoRAG:讓AI真正聽懂你的心聲30
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言